(網(wǎng)經(jīng)社訊)導(dǎo)讀：一場持續(xù)約兩小時(shí)的黑客攻擊，揭開了直播行業(yè)內(nèi)容安全防線的脆弱性。當(dāng)違規(guī)內(nèi)容如潮水般涌來，平臺(tái)的人工審核系統(tǒng)在自動(dòng)化攻擊面前顯得力不從心。12月22日晚間，快手平臺(tái)突發(fā)大規(guī)模內(nèi)容安全事件，多個(gè)直播間短時(shí)間內(nèi)涌入大量露骨色情內(nèi)容，違規(guī)內(nèi)容傳播狀態(tài)持續(xù)超1小時(shí)，引發(fā)廣泛關(guān)注。（詳見#網(wǎng)經(jīng)社 專題：
出品｜網(wǎng)經(jīng)社
作者｜弄影
審稿｜云馬
一、黑灰產(chǎn)發(fā)動(dòng)協(xié)同攻擊 快手平臺(tái)深夜“淪陷”
12月22日晚22時(shí)左右，快手平臺(tái)的直播功能開始出現(xiàn)異常。大量用戶在社交平臺(tái)反映，快手直播間突然涌現(xiàn)大量色情內(nèi)容。
這些違規(guī)直播間并非零星出現(xiàn)，而是呈現(xiàn)出明顯的“自動(dòng)化”與“協(xié)同化”特征。大量新注冊(cè)的“小白號(hào)”或僵尸賬號(hào)在同一時(shí)段集體開播，播放預(yù)制的非法視頻。攻擊者可能利用了直播推流接口的底層漏洞，繞過了平臺(tái)的實(shí)名認(rèn)證與內(nèi)容審核鏈路。正常瀏覽快手直播頻道的用戶頻繁刷到涉黃內(nèi)容直播間，有用戶描述，部分主播存在隱私部位暴露行為，另有大量直播間循環(huán)播放淫穢“小視頻”。
快手的響應(yīng)經(jīng)歷了逐步升級(jí)但略顯遲緩的過程。當(dāng)晚22時(shí)30分許，平臺(tái)監(jiān)測到異常后啟動(dòng)緊急處理機(jī)制，開始封禁違規(guī)直播間。然而，封禁速度遠(yuǎn)不及新違規(guī)直播間的出現(xiàn)速度。面對(duì)這種局面，快手在23日0時(shí)前后才采取了 “無差別關(guān)?！?/strong> 的終極止損措施，完全關(guān)閉了直播功能。到0點(diǎn)30分左右，用戶點(diǎn)擊快手直播頻道，界面已顯示“沒有找到內(nèi)容”或“服務(wù)器繁忙”。
23日凌晨，快手官方回應(yīng)稱，平臺(tái)在22日22時(shí)左右遭到黑灰產(chǎn)攻擊，目前已緊急處理修復(fù)中，相關(guān)情況已上報(bào)主管部門并向公安機(jī)關(guān)報(bào)警。北京市公安局海淀分局接線工作人員透露，已接到多個(gè)群眾報(bào)案，目前正開展調(diào)查工作。到23日上午8時(shí)，快手直播功能已逐步恢復(fù)正常。同日，快手科技在其官網(wǎng)發(fā)布聲明，強(qiáng)烈譴責(zé)黑灰產(chǎn)的違法犯罪行為，并表示將視情況采取其他適當(dāng)?shù)姆裳a(bǔ)救措施。12月23日早盤，快手股價(jià)一度跌超5%，市值蒸發(fā)近百億元。
此次攻擊之所以能迅速擊穿防線，暴露出平臺(tái)在安全機(jī)制與應(yīng)急響應(yīng)上的深層問題。中國商業(yè)聯(lián)合會(huì)直播電商委副會(huì)長、網(wǎng)經(jīng)社電子商務(wù)研究中心主任曹磊指出，從異常內(nèi)容大規(guī)模涌現(xiàn)到平臺(tái)響應(yīng)超過一小時(shí)，這首先反映出平臺(tái)的實(shí)時(shí)監(jiān)測系統(tǒng)未能及時(shí)捕捉危險(xiǎn)信號(hào)；其次，內(nèi)容審核體系在面對(duì)有組織的規(guī)?；魰r(shí)完全失效；第三，內(nèi)部決策鏈條冗長，缺乏應(yīng)對(duì)危機(jī)的快速響應(yīng)機(jī)制；最后，針對(duì)此類協(xié)同攻擊，平臺(tái)顯然缺乏有效預(yù)案，危機(jī)管理能力嚴(yán)重不足。
知名天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤進(jìn)一步分析了應(yīng)急響應(yīng)暴露的核心問題：一是預(yù)警機(jī)制存在盲區(qū)，AI模型對(duì)“業(yè)務(wù)合法掩護(hù)下的批量違規(guī)”缺乏精準(zhǔn)識(shí)別能力，未能及時(shí)捕捉短時(shí)間內(nèi)多直播間集中涌現(xiàn)的違規(guī)特征，過度依賴用戶舉報(bào)導(dǎo)致預(yù)警嚴(yán)重滯后；二是應(yīng)急流程銜接低效，未建立針對(duì)規(guī)?；舻淖詣?dòng)“熔斷機(jī)制”，人工審核、賬號(hào)封禁、內(nèi)容下架等環(huán)節(jié)協(xié)同不暢，陷入“封禁不及新增”的被動(dòng)局面；三是資源調(diào)度缺乏彈性，后臺(tái)系統(tǒng)未能在遭受飽和式攻擊時(shí)自動(dòng)觸發(fā)擴(kuò)容或限流預(yù)案，導(dǎo)致審核資源無法匹配峰值需求。
（知名天使投資人、網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員郭濤）
從歷史案例看，平臺(tái)因內(nèi)容監(jiān)管不力被處罰已有先例。這并非異第一次出現(xiàn)類似問題，快手此前也有過多次涉黃、低俗違規(guī)的公開記錄。2018年4月，國家網(wǎng)信辦通報(bào)快手傳播涉未成年人低俗不良信息，并責(zé)令暫停相關(guān)算法推薦功能，將“王樂樂”“楊青檸”等違規(guī)主播納入跨平臺(tái)禁播黑名單。2024年4月，鄂爾多斯市東勝區(qū)警方查處快手某用戶，因?yàn)槠渲辈ラg傳播淫穢低俗內(nèi)容點(diǎn)擊量超1.3萬次，當(dāng)事人被警方予以行政拘留15日的處罰。2025年12月5日，4400萬粉絲主播“劉二狗”舉辦戶外溫泉泳池直播，鏡頭刻意聚焦敏感部位，快手平臺(tái)于16日對(duì)其采取禁言、禁止發(fā)布新作品措施。
二、 平臺(tái)恐難逃其咎 網(wǎng)絡(luò)安全切記“亡羊補(bǔ)牢”
此次事件中，即便攻擊源自外部黑灰產(chǎn)，快手也難言完全無責(zé)。北京市京師(深圳)律師事務(wù)所律師王曉彤指出，即便本次事件系黑灰產(chǎn)組織實(shí)施的惡意攻擊行為，平臺(tái)亦不當(dāng)然免責(zé)。根據(jù)《網(wǎng)絡(luò)安全法》《民法典》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》等法律法規(guī)，平臺(tái)對(duì)其運(yùn)營空間內(nèi)的信息內(nèi)容依法負(fù)有內(nèi)容管理主體責(zé)任和安全保障義務(wù)。
（北京市京師(深圳)律師事務(wù)所律師王曉彤）
從責(zé)任限制規(guī)則看，我國法律雖未直接使用“避風(fēng)港原則”這一表述，但其制度內(nèi)涵已明確體現(xiàn)在《民法典》第1195條、第1197條之中。依據(jù)該兩條規(guī)定，網(wǎng)絡(luò)服務(wù)提供者僅在不存在“知道或應(yīng)當(dāng)知道”情形，且在發(fā)現(xiàn)或被通知后已及時(shí)采取必要措施的前提下，方可不就損害后果承擔(dān)相應(yīng)責(zé)任。反之，如存在應(yīng)知未知、知而不處置或處置明顯遲延的情形，則不適用責(zé)任豁免規(guī)則。 同時(shí)，《網(wǎng)絡(luò)安全法》第47條明確要求，網(wǎng)絡(luò)運(yùn)營者發(fā)現(xiàn)法律、行政法規(guī)禁止發(fā)布或者傳輸?shù)男畔⒌?，?yīng)當(dāng)立即停止傳輸、采取處置措施、防止信息擴(kuò)散，并保存記錄、向主管部門報(bào)告。因此，是否承擔(dān)法律責(zé)任，關(guān)鍵并不在于違法內(nèi)容是否源于“外部攻擊”，而在于平臺(tái)是否已依法建立并有效運(yùn)行與其業(yè)務(wù)規(guī)模相匹配的內(nèi)容治理和應(yīng)急處置機(jī)制。
（浙江墾丁（北京）律師事務(wù)所律師程念）
網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、浙江墾?。ū本┞蓭熓聞?wù)所律師程念也指出，第一，快手事件中，一些公開報(bào)道中提到根據(jù)技術(shù)專家分析，攻擊者很可能利用了直播推流接口的底層漏洞，從而繞過了平臺(tái)正常的實(shí)名認(rèn)證和內(nèi)容審核鏈路。這使得預(yù)設(shè)的違規(guī)內(nèi)容能夠直接突破安全防線?？焓置鎸?duì)新型的、組合方式出現(xiàn)的攻擊，顯然沒有很好地應(yīng)對(duì)和處置，大量新注冊(cè)的“小白號(hào)”或僵尸賬號(hào)自動(dòng)化播放預(yù)制視頻的涌入也很可能超出了快手平常審核方面的算力支持。
第二，《國家網(wǎng)絡(luò)安全事件報(bào)告管理辦法》附件“網(wǎng)絡(luò)安全事件分級(jí)指南”中對(duì)于“重大網(wǎng)絡(luò)安全事件”的界定中包含“...大型以上網(wǎng)絡(luò)平臺(tái)等被攻擊篡改，導(dǎo)致違法有害信息大范圍傳播。 以下情況之一，可認(rèn)定為“大范圍”：（3）瀏覽或點(diǎn)擊次數(shù)10萬以上”；對(duì)于“較大網(wǎng)絡(luò)安全事件”的界定中包含“...網(wǎng)絡(luò)平臺(tái)等被攻擊篡改，導(dǎo)致違法有害信息較大范圍傳播。以下情況之一，可認(rèn)定為“較大范圍”：（3）瀏覽或點(diǎn)擊次數(shù)1萬以上”?？焓质录壳暗那闆r已經(jīng)構(gòu)成較大網(wǎng)絡(luò)安全事件，公開渠道看到的情況是違法信息傳播持續(xù)了一個(gè)小時(shí)，部分直播間單場觀看人數(shù)甚至逼近10萬人。如果經(jīng)調(diào)查發(fā)現(xiàn)達(dá)到10萬人則很可能被認(rèn)定為重大網(wǎng)絡(luò)安全事件，而根據(jù)《國家網(wǎng)絡(luò)安全事件報(bào)告管理辦法》第四條，快手應(yīng)當(dāng)及時(shí)向?qū)俚厥〖?jí)網(wǎng)信部門報(bào)告，最遲不得超過4小時(shí)。如果因?yàn)槲茨芗皶r(shí)報(bào)告導(dǎo)致危害擴(kuò)大的，該行為也屬于違反《網(wǎng)絡(luò)安全法》第二十五條的情形。
因此，本身存在漏洞加上沒有提供和平臺(tái)體量相當(dāng)?shù)膽?yīng)急措施和方案，以及未能即使向主管部門報(bào)告的，快手很可能因未能處置系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊等風(fēng)險(xiǎn)以及未能及時(shí)按照規(guī)定報(bào)告從而因違反《網(wǎng)絡(luò)安全法》第二十五條的規(guī)定，從而導(dǎo)致《網(wǎng)絡(luò)安全法》第五十九條規(guī)定的責(zé)令整改、警告等處罰措施。
快手事件并非孤例，而是直播行業(yè)面臨的共性問題的一個(gè)極端體現(xiàn)。隨著直播行業(yè)的繁榮，內(nèi)容安全已成為全行業(yè)的共同挑戰(zhàn)。從小紅書、B站到抖音，幾乎所有主流平臺(tái)都曾陷入類似爭議。這反映出行業(yè)在快速擴(kuò)張中，普遍存在 “安全防護(hù)”與“規(guī)模擴(kuò)張”失衡 的問題。郭濤認(rèn)為，此次事件折射出，隨著黑灰產(chǎn)攻擊技術(shù)迭代，傳統(tǒng)“AI+人工”的滯后模式已難以應(yīng)對(duì)新型風(fēng)險(xiǎn)，必須向“智能預(yù)判+主動(dòng)防御”升級(jí)。
三、專家開出“救火”藥方 抵御黑灰產(chǎn)何解
面對(duì)日益專業(yè)化、規(guī)?；暮诨耶a(chǎn)攻擊，被動(dòng)封禁的“救火”模式已顯乏力。行業(yè)專家普遍認(rèn)為，平臺(tái)必須進(jìn)行系統(tǒng)性升級(jí)，從“事后處置”轉(zhuǎn)向“事前預(yù)防”，構(gòu)建全方位的防御體系。
在技術(shù)防御層面，必須構(gòu)筑動(dòng)態(tài)深度的“護(hù)城河”。郭濤建議，平臺(tái)需構(gòu)建 “事前防御-事中攔截-事后溯源” 的全鏈條體系。這包括：升級(jí)AI審核模型，專項(xiàng)訓(xùn)練其識(shí)別批量違規(guī)、接口漏洞攻擊等新型場景的能力；強(qiáng)化直播推流等核心接口的權(quán)限校驗(yàn)與實(shí)時(shí)異常行為監(jiān)測，從底層封堵業(yè)務(wù)邏輯漏洞。徐均波也指出，防御需從單點(diǎn)向體系化演進(jìn)，加強(qiáng)威脅情報(bào)的收集和應(yīng)用，實(shí)現(xiàn)主動(dòng)預(yù)警。
在應(yīng)急機(jī)制層面，必須實(shí)現(xiàn)秒級(jí)響應(yīng)的“自動(dòng)化熔斷”。 專家強(qiáng)調(diào)，必須建立明確的自動(dòng)化應(yīng)急流程。郭濤提出，應(yīng)設(shè)立跨部門應(yīng)急專班，并明確違規(guī)閾值，一旦觸發(fā)，系統(tǒng)應(yīng)能自動(dòng)執(zhí)行“熔斷”操作，如暫停高風(fēng)險(xiǎn)賬號(hào)段開播、限制異常IP推流，實(shí)現(xiàn)“秒級(jí)響應(yīng)、分鐘級(jí)處置”，避免因人工決策延遲導(dǎo)致事態(tài)擴(kuò)大。王曉彤律師也從合規(guī)角度指出，必須依據(jù)《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》等法規(guī)，建立針對(duì)涉黃涉暴等內(nèi)容的秒級(jí)下線與自動(dòng)封禁機(jī)制。
在合規(guī)與生態(tài)治理層面，必須形成協(xié)同共治的“合力”。 單一平臺(tái)獨(dú)立應(yīng)對(duì)黑灰產(chǎn)成本高昂且效果有限。郭濤建議，應(yīng)聯(lián)合產(chǎn)業(yè)鏈共建黑灰產(chǎn)特征數(shù)據(jù)庫，共享違規(guī)賬號(hào)、設(shè)備指紋等信息，推動(dòng)跨平臺(tái)聯(lián)防聯(lián)控。王曉彤律師補(bǔ)充，平臺(tái)必須嚴(yán)格落實(shí)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等要求，完善內(nèi)容審核、賬號(hào)管理和應(yīng)急處置制度，并特別強(qiáng)化對(duì)未成年人保護(hù)的相關(guān)措施。她同時(shí)指出，在事件發(fā)生后，平臺(tái)可依據(jù)《行政處罰法》通過及時(shí)整改、消除危害等行為，爭取從輕或減輕處罰。
曹磊總結(jié)道，互聯(lián)網(wǎng)平臺(tái)必須從根本上轉(zhuǎn)變觀念：內(nèi)容安全是生存之本，而非成本負(fù)擔(dān)。對(duì)安全的投入應(yīng)視為必要的戰(zhàn)略性投資。只有將防御策略前置，真正構(gòu)建起技術(shù)、機(jī)制、合規(guī)、生態(tài)協(xié)同的全鏈條防御體系，才能從根源上提升抵御風(fēng)險(xiǎn)的能力，守護(hù)清朗的網(wǎng)絡(luò)空間。此次快手事件，無疑為整個(gè)行業(yè)敲響了必須全力“筑高墻、補(bǔ)漏洞”的警鐘。
【小貼士】
國內(nèi)知名網(wǎng)絡(luò)消費(fèi)糾紛調(diào)解平臺(tái)“電訴寶”（315.100EC.CN）運(yùn)行10余年來，與全國近千家網(wǎng)絡(luò)消費(fèi)平臺(tái)建立對(duì)接，影響1億+網(wǎng)絡(luò)消費(fèi)用戶，新系統(tǒng)實(shí)現(xiàn)一鍵投訴、24h在線、自助維權(quán)、同步直達(dá)、實(shí)時(shí)處理、進(jìn)度查詢、評(píng)價(jià)體系、法律求助、大數(shù)據(jù)分析等諸多功能。
目前，平臺(tái)“綠色通道”服務(wù)向廣大網(wǎng)絡(luò)消費(fèi)平臺(tái)開放，平臺(tái)可自主申請(qǐng)入駐，實(shí)時(shí)受理、反饋和查詢用戶滿意度評(píng)價(jià)。為了更好地營造公開、透明、健康的網(wǎng)絡(luò)消費(fèi)投訴環(huán)境，“電訴寶”公開版已正式上線，新增用戶投訴實(shí)時(shí)受理動(dòng)態(tài)、月度平臺(tái)投訴量TOP10、熱點(diǎn)投訴地區(qū)、投訴榜（依據(jù)投訴量排行）等模塊，讓投訴過程透明化，一手掌握信息動(dòng)態(tài)。
